John McCarthy là một trong những "cha đẻ" của trí tuệ nhân tạo, cùng với Marvin Minsky, Allen Newell và Herbert A. Simon. McCarthy đã đặt ra thuật ngữ "trí tuệ nhân tạo" vào năm 1955 và tổ chức Hội nghị Dartmouth nổi tiếng vào mùa hè năm 1956. Hội nghị này đã bắt đầu AI như một lĩnh vực.[7][12] (Minsky sau đó gia nhập vào nhóm nghiên cứu với McCarthy tại MIT vào năm 1959.)

Năm 1958, ông đã đề xuất người đưa ra advice taker, điều này đã truyền cảm hứng cho công việc sau này về trả lời câu hỏi và lập trình logic.

John McCarthy đã phát minh ra Lisp vào cuối những năm 1950. Dựa trên tính toán lambda, Lisp sớm trở thành ngôn ngữ lập trình được lựa chọn cho các ứng dụng AI sau khi xuất bản năm 1960.[13]

Năm 1958, McCarthy phục vụ trong hội đồng ACM Ad hoc với nhiệm vụ là một phần của hội đồng thiết kế ALGOL 60. Vào tháng 8 năm 1959, ông đã đề xuất việc sử dụng đệ quy và các biểu thức điều kiện, nó đã trở thành một phần của ALGOL.[14]

Khoảng năm 1959, ông đã phát minh ra phương pháp được gọi là" garbage collection " để giải quyết các vấn đề trong Lisp.[15][16]

Ông đã giúp thúc đẩy việc tạo ra Project MAC tại MIT khi ông làm việc ở đó.

Tại Đại học Stanford, ông đã giúp thành lập Phòng thí nghiệm AI của Stanford, trong nhiều năm là đối thủ thiện chí của Project MAC.

Năm 1961, có lẽ ông là người đầu tiên đề xuất công khai ý tưởng về utility computing, trong bài phát biểu kỷ niệm một trăm năm của MIT: công nghệ time sharing trên máy tính có thể dẫn đến một tương lai mà sức mạnh tính toán và thậm chí các ứng dụng cụ thể có thể được bán thông qua mô hình kinh doanh utility (như kinh doanh nước hoặc điện).[17] Ý tưởng về một máy tính hoặc tiện ích thông tin rất phổ biến vào cuối những năm 1960, nhưng đã bị phai mờ vào giữa những năm 1990. Tuy nhiên, kể từ năm 2000, ý tưởng này đã xuất hiện trở lại trong các hình thức mới (xem nhà cung cấp dịch vụ ứng dụng, điện toán lưới và điện toán đám mây).

Năm 1966, McCarthy và nhóm của ông tại Stanford đã viết một chương trình máy tính được sử dụng để chơi một loạt các trò chơi cờ vua với các đối tác ở Liên Xô; Đội của McCarthy thua hai trận và hòa hai trận (xem Kotok-McCarthy).

Từ 1978 đến 1986, McCarthy đã phát triển phương pháp cắt vòng theo lý luận không đơn điệu.

McCarthy cũng được ghi nhận với việc phát triển một hình thức chia sẻ thời gian sớm. Đồng nghiệp của ông, Lester Earnest đã nói với Thời báo Los Angeles: "Internet sẽ không đến như được mong đợi cho đến khi ông John thực hiện việc phát triển các hệ thống chia sẻ thời gian. Chúng tôi vẫn đang tiếp tục phát minh ra những khái niệm mới về chia sẻ thời gian. Nó đã được gọi là những máy chủ   . . . Bây giờ chúng tôi gọi nó là điện toán đám mây. Đó vẫn chỉ là chia sẻ thời gian. John đã bắt đầu nó. " [7]

Năm 1982, ông John dường như đã có ý tưởng ban đầu về " đài phun không gian ", một loại tháp kéo dài vào không gian và được giữ thẳng đứng bởi lực bên ngoài của một luồng các viên đẩy từ Trái đất dọc theo một băng chuyền đưa các viên đạn về Trái đất (tải trọng sẽ đi băng chuyền lên trên).[18]